Đường này xưa vốn là con kênh với tên gọi kênh Phố Xếp. Kênh này thông ra rạch Chợ Lớn, từ đó có thể vận chuyển hàng hóa ra kênh Tàu Hủ và đi khắp nơi[2]. Theo học giả Vương Hồng Sển, kênh được đào năm 1778, thời điểm người Hoa từ cù lao Phố đến đây lập phố chợ, tại đường Cây Mai có cây cầu bắc qua kênh gọi là "Cầu Phố"[3][4]. Đến thập niên 1910, con kênh này bị lấp và trở thành đại lộ Tổng Đốc Phương, theo tên của Tổng đốc Đỗ Hữu Phương (1841–1914), viên quan trung thành với thực dân Pháp, giúp Pháp đánh dẹp các cuộc khởi nghĩa của nhân dân[5]. Tổng đốc Phương còn được mệnh danh là đệ nhị phú hào Sài Gòn xưa, gia đình ông trước kia có dinh thự ven kênh Phố Xếp.[3][6]

Năm 1975, Chính phủ Cách mạng lâm thời đổi tên đại lộ Tổng Đốc Phương thành đường Châu Văn Liêm như hiện nay.

Tại Sài Gòn trước đây có nhiều rạp hát nổi tiếng, là nơi chiếu phim, diễn cải lương, diễn kịch. Trên đường Châu Văn Liêm có ba rạp lớn là Đại Quang, Thủ Đô và Toàn Thắng. Hiện nay chỉ còn rạp Thủ Đô hoạt động tuy nhiên cơ sở vật chất tại đây cũng đã xuống cấp.[7]